Ty thể có chứa hệ gen của riêng chúng, gọi là DNA ty thể (mitochondrial DNA), viết tắt mtDNA; một dấu hiệu cho thấy bào quan này có nguồn gốc từ vi khuẩn thông qua hiện tượng nội cộng sinh (xem Nguồn gốc và con đường tiến hóa ở trên). Tuy nhiên, hệ gen nội cộng sinh tổ tiên của chúng đã mất đi phần lớn các gen, dẫn đến hệ gen ty thể hiện nay là một trong những hệ gen thoái hóa mạnh nhất khi tính trên cấp độ sinh vật.

Hệ gen ty thể người là một phân tử DNA vòng mang khoảng 16 kilobase.[105] Thông tin di truyền tập hợp trong 37 gen: 13 mã hóa các tiểu đơn vị thuộc những phức hệ hô hấp I, III, IV và V; 22 mã hóa tRNA ty thể (gồm 20 loại tRNA tham gia vận chuyển 20 loại amino axit tiêu chuẩn, cộng với một gen bổ sung mã hóa leucine và serine) và 2 mã hóa rRNA.[105] Mỗi một ty thể có thể chứa từ 2 đến 10 bản sao DNA phát sinh từ phân tử gốc.[106]

Trong khi ở sinh vật nhân sơ, hiện diện một tỷ lệ rất cao DNA mã hóa và vắng đi những đoạn lặp lại. Các gen ty thể được phiên mã theo phương thức phiên mã đa gen (multigenic transcript), sau đó bị cắt nối và bổ sung đuôi poly(A) nhằm hoàn thiện tạo nên mRNA trưởng thành. Không phải tất cả protein cần cho chức năng ty thể đều mã hóa bởi hệ gen ty thể; thực chất phần lớn trong số chúng lại do gen nhân tế bào mã hóa và nhập cảng vào bào quan.[46] Con số chính xác những gen mã hóa thuộc hệ gen nhân và ty thể khác nhau tùy vào từng loài. Hầu hết hệ gen ty thể đều là dạng vòng, ngoại trừ một số ngoại lệ.[107] Chung quy lại, DNA ty thể thiếu sót các intron, như trường hợp hệ gen ty thể con người;[46] tuy một vài intron từng được tìm thấy trong số ít DNA ty thể nhân thực,[108] ví dụ nấm men[109] và sinh vật nguyên sinh,[110] như loài Dictyostelium discoideum.[111] Giữa những vùng mã hóa protein có mặt các phân tử tRNA. Trong suốt quá trình phiên mã, tRNA đạt được hoạt tính cấu dạng L (L-shape) để các enzyme đặc hiệu có thể nhận diện và cắt nối. Gen tRNA ty thể có những đoạn trình tự khác biệt so với tRNA nhân nhưng lại có vẻ giống với tRNA ty thể tìm thấy trong các nhiễm sắc thể nhân với mật độ tương đồng trình tự cao.[112]

Ở động vật, hệ gen ty thể thường là một nhiễm sắc thể vòng đơn đặc trưng, dài xấp xỉ 16 kb và chứa 37 gen. Các gen được bảo tồn tốt có thể sắp xếp đa dạng ở nhiều vị trí. Kỳ lạ thay, mô hình này lại không thể tìm thấy ở loài rận thân thể người (human body louse, Pediculus humanus). Thay vào đó, hệ gen ty thể của nó được phân bổ thành 18 nhiễm sắc thể vòng nhỏ (minicircular chromosome), mỗi một phân tử dài khoảng 3–4 kb và chỉ mang 1 đến 3 gen.[113] Mô hình dẫn xuất này cũng có mặt trong những loài rận hút (sucking louse) khác, nhưng lại không có ở rận nhai (chewing louse). Người ta cũng quan sát thấy quá trình tái tổ hợp diễn ra giữa các nhiễm sắc thể nhỏ. Nguyên nhân chính xác của sự khác biệt này vẫn chưa thể hiểu rõ.

Hệ thống mã di truyền thay thế

Ngoài những biến thể nhẹ của bộ mã di truyền tiêu chuẩn đã dự đoán từ trước,[114] người ta không còn phát hiện thêm bất kì mã nào cho đến năm 1979, khi những nghiên cứu trên các gen ty thể người cho rằng chúng có sử dụng một bộ mã thay thế.[115] Tuy vậy, ty thể của nhiều sinh vật nhân thực khác, bao gồm hầu hết thực vật, vẫn sử dụng hệ thống mã di truyền tiêu chuẩn.[116] Từ đó trở đi, nhiều biến thể nhỏ của bộ mã tiếp tục được phát hiện,[117] gồm cả những mã thay thế trong ty thể.[118] Thêm nữa, ba codon AUA, AUC và AUU đều là các codon mở đầu.

Một vài sai khác trên được coi là giả thay đổi trong bộ mã di truyền do hiện tượng chỉnh sửa RNA, xảy ra phổ biến trong ty thể. Ở thực vật bậc cao, người ta nghĩ rằng CGG mã hóa cho tryptophan, không phải arginine; tuy nhiên, codon phát hiện trên RNA sau tinh sửa lại là UGG, phù hợp với hệ thống mã di truyền tiêu chuẩn trong mã hóa tryptophan.[119] Đáng chú ý là hệ mã di truyền ty thể động vật chân đốt đã trải qua sự kiện tiến hóa song hành nội ngành, dẫn đến vẫn tồn tại một vài sinh vật duy nhất dịch mã AGG ra lysine.[120]

Tiến hóa và sự đa dạng

Hệ gen ty thể chứa lượng gen ít hơn rất nhiều so với vi khuẩn, tổ tiên của chúng. Bên cạnh một số gen đã hoàn toàn mất đi, có thể vẫn còn ít gen được chuyển đến nhân, như gen mã hóa những tiểu đơn vị protein thuộc Phức hệ II trong hô hấp tế bào.[105] Người ta cho rằng sự kiện này tương đối phổ biến xuyên suốt thời gian tiến hóa. Một vài sinh vật, như Cryptosporidium, có loại ty thể thiếu sót DNA, phỏng chừng tất cả các gen của ty thể đó khả năng đã mất hoặc bị chuyển đi.[121] Trong Cryptosporidium, ty thể có hệ thống sản xuất ATP được tu sửa, cho thấy ký sinh trùng này đã tiến hóa chống lại nhiều tác nhân ức chế ty thể thường gặp như cyanua, azua và atovaquone.[121]

Nhân đôi và di truyền

Ty thể phân cắt bằng cách phân đôi, tương tự phân bào ở vi khuẩn.[122] Sự điều hòa hoạt động phân đôi ty thể khác biệt giữa các sinh vật nhân thực. Trong nhiều tổ chức nhân thực đơn bào, sự sinh trưởng và phân chia bào quan này liên hợp với chu kỳ tế bào. Tỷ dụ, một ty thể đơn có khả năng phân chia đồng bộ song song với nhân. Quá trình phân đôi và phân phối này phải được kiểm soát chặt chẽ để mỗi tế bào con đều nhận được ít nhất một ty thể. Trong những sinh vật nhân thực khác (như thú), có thể phần lớn ty thể liên tục sao chép DNA của chúng và phân đôi nhằm đáp ứng nhu cầu năng lượng tế bào, hơn là phải hoạt động đồng pha với chu kỳ tế bào. Một khi nhu cầu năng lượng tăng cao, ty thể sẽ tích cực sinh trưởng và phân đôi. Còn khi nhu cầu năng lượng xuống thấp, ty thể bị phân hủy hay trở nên bất hoạt. Theo những ví dụ trên, và tương phản với hiện trạng ở nhiều sinh vật nhân thực đơn bào, rõ ràng ty thể được phân phối ngẫu nhiên cho các tế bào con trong giai đoạn phân chia tế bào chất. Hiểu biết về hoạt độ động lực ty thể, tựa như tính cân bằng giữa sự dung hợp và phân đôi, đã cho thấy những thay đổi chức năng và cấu trúc trong hình thái học ty thể là nhân tố trọng yếu của bệnh lý học, liên quan đến một số cơ sở khởi phát bệnh.[123]

Những lý thuyết về quá trình phân đôi ty thể đạt được độ tin cậy bằng việc trực quan hóa nhờ kính hiển vi huỳnh quang và kính hiển vi điện tử truyền qua tiêu chuẩn (transmission electron microscopy, TEM). Ta phải sử dụng tận hai kính là do độ phân giải kính hiển vi huỳnh quang (~200 nm) không đủ để phân biệt chi tiết các cấu trúc, như màng kép ty thể trong phân đôi bào quan hay thậm chí nhận ra từng ty thể riêng biệt trong trường hợp nằm gần nhau. Mặc dù TEM tiêu chuẩn vẫn còn một số hạn chế kỹ thuật[nào?] trong việc xác minh sự phân đôi ty thể. Gần đây người ta cũng sử dụng phương pháp chụp cắt lớp điện tử lạnh (cryo-electron tomography) để trực quan hóa phân đôi ty thể trên mẫu tế bào ngậm nước đông lạnh nguyên vẹn. Phương pháp này tiết lộ rằng ty thể phân đôi bằng cách nảy chồi.[124]

Cơ chế di truyền của những gen ty thể trong từng đơn vị bào quan riêng biệt không như những gen nhân tế bào. Thông thường, mỗi ty thể chỉ thừa hưởng thông tin di truyền từ một bên bố mẹ đơn nhất. Ở người, khi một tế bào trứng được tinh trùng thụ tinh, nhân tế bào trứng và tinh trùng sẽ cùng góp chung một lượng vật chất di truyền như nhau để tạo nên nhân tế bào hợp tử. Trong khi ở ty thể lại ngược lại, DNA ty thể thường chỉ đến từ tế bào trứng. Ty thể tinh trùng cũng nhập bào vào trứng, nhưng không góp được thông tin di truyền nào cho phôi.[125] Nguyên nhân là do những ty thể từ bố bị ubiquitin đánh dấu và phôi sẽ cho tiêu hủy sau này.[126] Tế bào trứng chứa tương đối ít ty thể, nhưng nhóm ty thể này lại sống sót và tiếp tục phân đôi để cư trú trong những tổ chức sống trưởng thành. Qua đó, phần lớn trường hợp giao phối chỉ di truyền ty thể từ mẹ, khát quát lên thành khái niệm di truyền dòng mẹ. Phương thức di truyền này có mặt trong phần lớn sinh vật, bao gồm đa số động vật. Nhưng đôi khi cũng có trường hợp di truyền ty thể từ bố; xuất hiện nhất định ở một số loài cây ngành Thông, dù không bao gồm chi Thông và chi Taxus.[127] Còn ở họ Vẹm, di truyền dòng bố chỉ xảy ra trong con đực.[128][129][130] Người ta cũng cho rằng tỷ lệ xuất hiện phương thức di truyền này ở con người là rất thấp.[131] Một ý kiến gần đây trình bày việc ty thể sẽ gây rút ngắn tuổi thọ giống đực, nguyên nhân là do chúng chỉ được thừa hưởng từ mẹ. Ngược lại, tiến trình chọn lọc tự nhiên ở cỏ dại lại cho thấy ty thể giảm mất cơ hội sống sót của giống cái, và như vậy ty thể ít có khả năng truyền đến những thế hệ tiếp theo. Kết luận, từ những dẫn chứng trên đã cho chúng ta thấy một trong những nguyên nhân dẫn đến hiện tượng giống cái loài người và động vật có khuynh hướng sống lâu hơn giống đực. Các tác giả của nhận định trên khẳng định đây là một giải thích chưa toàn diện.[132]

Di truyền một bên bố mẹ tạo ra ít cơ hội tái tổ hợp di truyền giữa những dòng ty thể khác nhau, dù cho mỗi ty thể đơn có thể chứa từ 2–10 bản sao DNA.[106] Vì nguyên nhân này, người ta thường nghĩ DNA ty thể sản sinh theo phương thức phân cắt thành hai (phân đôi). Có thể do sự tái tổ hợp ưu tiên bảo tồn toàn vẹn hệ di truyền hơn là duy trì tính đa dạng. Dù vậy, đã có những nghiên cứu tiết lộ bằng chứng quá trình tái tổ hợp có xảy ra ở DNA ty thể. Theo như trên, rõ ràng các enzyme thực hiện tái tổ hợp có hiện diện trong tế bào động vật có vú.[133] Hơn nữa, các chứng cứ còn gợi ý ty thể động vật có thể là hệ quả của quá trình tái tổ hợp từ trước.[134] Dữ liệu tương tự ở người thì còn gây tranh cãi, dù những bằng chứng gián tiếp vẫn cho thấy có tồn tại sự tái tổ hợp.[135][136] Nếu tái tổ hợp không diễn ra, toàn bộ trình tự DNA ty thể sẽ trở thành một haplotype duy nhất, khiến trường hợp này hữu ích trong việc nghiên cứu lịch sử tiến hóa quần thể.

Những ty thể được di truyền theo một bên bố mẹ và ít hoặc không tái tổ hợp khả năng sẽ chịu tác động từ hiệu ứng chốt hãm ngược Muller (Muller's ratchet), tích tụ vô tình những đột biến có hại cho đến khi chức năng bào quan hoàn toàn biến mất. Quần thể ty thể động vật tránh đi sự tích tụ này thông qua một quá trình tiến hóa gọi là nút cổ chai ty thể (mitochondrial bottleneck). Nút cổ chai lợi dụng những quá trình ngẫu nhiên hiện diện trong tế bào để gia tăng sự chênh lệch hàm lượng nạp tải đột biến giữa các tế bào theo tiến trình phát triển sinh vật, như khi: một tế bào trứng đơn chứa một lượng mtDNA đột biến có thể trở thành một phôi mang nhiều tế bào khác nhau có lượng nạp tải đột biến khác biệt. Sau đó có thể diễn ra sự chọn lọc cấp độ tế bào nhằm loại bỏ những tế bào chứa nhiều mtDNA đột biến, dẫn đến ổn định hóa hay giảm thiểu hàm lượng nạp tải đột biến giữa các thế hệ. Cơ chế đằng sau quá trình nút cổ chai vẫn còn đang tranh luận.[137][138][139] Một nghiên cứu tổng hợp toán học lẫn thực nghiệm gần đây đã cung cấp bằng chứng về sự tổ hợp trong phân vùng ngẫu nhiên mtDNA khi phân bào và đổi mới ngẫu nhiên các phân tử mtDNA trong tế bào.[140]